生成式 AI 的限制

• 理解與推理能力有限
  AI 系統處理大量資料並識別模式，缺乏真正的語義理解與常識推理，容易產生不合邏輯或錯誤的結果。例如電腦可以識別出貓或狗的圖像，但僅是分析資料模式進行預測，並不知道貓或狗是什麼。
• 準確性不足
  可能生成錯誤或虛構的內容（俗稱「幻覺」），生成不正確或虛構的資訊，且缺乏即時驗證得能力，難以保證完全可靠。
• 偏見與歧視問題
  如果人類給的訓練資料中存在社會偏見（性別、文化、種族等）被模型學習，可能導致輸出的結果帶有不公平或歧視性。
• 依賴資料品質 (Dependency on data quality)
  因為高度依賴於大規模資料集，如果用於訓練模型的資料存在偏差、不完整或品質差，導致輸出的結果產生偏差。
• 缺乏人類情感
  人類的情感互動相當複雜，使其難以正確理解細微的語境、諷刺、情緒或文化差異。

生成式 AI 的風險

• 隱私與數據安全風險
  使用過程中可能洩露個人或企業敏感資料，可能導致敏感資訊（身份證號碼、金融帳號等）外洩。
• 思考能力退化
  過度依賴 AI 可能削弱人類獨立思考的能力。
• 法律問題
  生成的內容可能侵犯原創作品版權，而引發爭議（如智慧財產權爭議、內容合規問題、責任歸屬不明等）。

應對策略

• 加強資料的質量
  確保訓練資料的準確性與多元性，減少偏見與錯誤。
• 制定法律框架
  制定生成式 AI 相關的法律規範，如技術開發與應用、隱私問題，保障安全與合規。
• 提升公眾的意識
  增強媒體識讀，提升對於真假資訊的辨識能力。
  避免輸入敏感資訊，避免輸入敏感資訊。